Tháng 1 năm 1988 đến tháng 9 năm 1989, ông được điều động bổ sung làm Tỉnh ủy viên Tỉnh ủy tỉnh Sông Bé. Tháng 10 năm 1989 đến tháng 12 năm 1991, ông được cử làm Phó Bí thư thường trực Tỉnh ủy tỉnh Sông Bé sau này là tỉnh Bình dương và Bình Phước. Trong những năm đầu tiến hành đổi mới kinh tế, Bình dương và TP Hồ chí Minh là những nơi có tốc độ tăng trưởng nhanh, thu hút nhiều vốn đầu tư nước ngoài

Tại Đại hội đại biểu toàn quốc lần thứ VII của Đảng Cộng sản Việt Nam (tháng 6 năm 1991), ông được bầu vào Ban chấp hành Trung ương Đảng Cộng sản Việt Nam, giữ chức Ủy viên Trung ương Đảng. Tại đại hội này, ông chính thức dùng lại tên cũ Nguyễn Minh Triết. Tháng 12 năm 1991, ông được bầu làm Bí thư Tỉnh ủy tỉnh Sông Bé và giữ chức vụ này cho đến tháng 12 năm 1996.[1]

Tháng 7 năm 1992, ông được bầu làm Đại biểu Quốc hội khóa IX với tư cách đại biểu của tỉnh Sông Bé. Sau đó, tháng 6 năm 1996, ông tái đắc cử chức vụ Ủy viên Trung ương Đảng tại Đại hội đại biểu toàn quốc lần thứ VIII của Đảng.[1]

Tháng 1 năm 1997, ông được điều động vào chức vụ Phó Bí thư Thành ủy Thành phố Hồ Chí Minh. Lúc này, Bí thư Thành ủy là ông Trương Tấn Sang, Ủy viên Bộ Chính trị. Đến tháng 12 cùng năm, tại Hội nghị lần thứ IV Ban chấp hành Trung ương Khóa VIII, ông cùng với các ông Nguyễn Phú Trọng, Phan Diễn, Phạm Thanh Ngân được bầu bổ sung vào Bộ Chính trị. Ông được phân công trách nhiệm là Trưởng ban dân vận Trung ương.[1] Sau khi ông chuyển công tác khác, lần lượt ông Trương Quang Được và bà Tòng Thị Phóng, Hà Thị Khiết (sau đại hội 9) được phân công nắm giữ chức vụ này.

Tháng 1 năm 2000, ông được điều động vào chức vụ Bí thư Thành ủy Thành phố Hồ Chí Minh. Tại Đại hội đại biểu toàn quốc lần thứ IX của Đảng, ông được bầu vào Ban chấp hành Trung ương Đảng và được Trung ương bầu vào Bộ Chính trị (tháng 4 năm 2001). Tháng 5 năm 2002, ông một lần nữa được bầu làm Đại biểu Quốc hội Khóa XI, tuy nhiên với tư cách đại biểu của Thành phố Hồ Chí Minh. Tháng 4 năm 2006, ông tái đắc cử chức vụ Ủy viên Bộ Chính trị khóa X[1]